Prompt 缓存

概述

Hermes Agent 为 Anthropic API 模式实现的前缀缓存机制，标记 System Prompt 中的稳定前缀以命中缓存，大幅降低 Token 成本。

关键内容

• 实现位置：prompt_caching.py 专为 anthropic_messages API 模式实现
• 缓存策略：标记 System Prompt 中的稳定前缀（SOUL.md + MEMORY.md + USER.md），后续调用命中缓存
• 成本优化：对于长期运行的 Agent，累积节省极为可观 — 前缀缓存 Token 的成本远低于常规 Token
• 与冻结快照协同：冻结快照设计保证前缀稳定性，是 Prompt 缓存生效的前提条件
• API 模式限制：仅 Anthropic Messages API 支持此功能，chat_completions 和 codex_responses 模式无此优化

来源

• 02_hermes_architecture.md — Hermes Agent 深度解析系列第二篇，2026 年 4 月版本

相关

• Hermes Agent — implements
• 冻结快照设计 — extends
• 三种 API 模式 — part_of